Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

Цукерберг». «Здесь нельзя слепо доверять одному человеку, – заявил Альтман в интервью Bloomberg TV в июне 2023 года. – У меня нет акций со множественным правом голоса. Они мне не нужны. Совет директоров вправе меня уволить. Это принципиально важно»[348]. За кулисами, однако, некоммерческий совет, где большинство составляли якобы независимые директора, с нарастающим раздражением убеждался: все нити управления сходятся в руках Альтмана.

Осенью 2022 года (сразу после триумфального запуска ChatGPT) Альтман объявил на общем собрании сотрудников о своем намерении ввести в совет директоров эксперта по безопасности ИИ. Идею встретили с одобрением – особенно представители второго из трех «племен» (академики, специалисты по безопасности и стартаперы), на которые Альтман иногда делил компанию. Но когда члены совета начали предлагать кандидатуры, процесс забуксовал. К тому времени Таша Макколи уже заседала в британском совете директоров Effective Ventures – благотворительного фонда эффективных альтруистов с бюджетом 50 миллионов долларов. Раньше он назывался Centre for Effective Altruism (Центр эффективного альтруизма), и ребрендинг случился непосредственно перед крахом криптоимперии Сэма Бэнкмана-Фрида – самого щедрого спонсора и бывшего члена правления фонда. У Макколи были хорошие связи в сообществе безопасности ИИ, которое во многом пересекается с движением эффективного альтруизма. Хелен Тонер тоже принадлежала к этому кругу.

Все стороны сходились в одном: идеальным кандидатом был бы кто-то вроде Пола Кристиано, бывшего руководителя команды по элайнменту языковых моделей в OpenAI. Он снискал всеобщее уважение глубоким пониманием проблем ИИ и независимостью суждений, несмотря на работу в Институте будущего человечества и Open Philanthropy. Но Кристиано уже входил в траст долгосрочной выгоды Anthropic, формирующий совет директоров компании, и вскоре должен был присоединиться к министерству торговли администрации Байдена – возглавить новое подразделение по регулированию ИИ. Совет OpenAI провел собеседование с женой Кристиано Аджеей Котрой – экспертом по безопасности ИИ из Open Philanthropy и основательницей студенческого Клуба эффективных альтруистов в Беркли. Но дело застопорилось – главным образом из-за проволочек со стороны Альтмана и Брокмана. В ответ Альтман выдвинул собственный список кандидатов – людей, которые, по ощущению остальных членов совета, так или иначе были ему обязаны. «Разгорелась небольшая борьба за власть, – рассказывает Брайан Чески, один из кандидатов, предложенных Альтманом. – Логика была простая: если имя называет Сэм, значит, человек ему предан – и, значит, надо отказать».

Ситуация обострилась, когда три члена совета из лагеря Альтмана один за другим подали в отставку. Рид Хоффман, помогавший Альтману продумывать коммерциализацию OpenAI и служивший ключевым связующим звеном с Microsoft, возмутил и Альтмана, и Тиля своим решением основать конкурирующую компанию Inflection AI. В марте 2023 года он покинул совет OpenAI из-за конфликта интересов. (Впоследствии Хоффман продал Inflection корпорации Microsoft, а его соучредитель Мустафа Сулейман – в прошлом один из основателей DeepMind – возглавил в Microsoft направление ИИ-продуктов.)

В том же месяце из совета ушла Шивон Зилис – эксперт по ИИ и топ-менеджер Neuralink, близкая подруга Маска, долгие годы поддерживавшая приятельские отношения с Альтманом. Меньше чем за год до этого, летом, члены совета директоров OpenAI были ошеломлены и рассержены, узнав, что еще в ноябре у Зилис родились близнецы от Маска, зачатые путем ЭКО, – о чем она не сообщила совету. О детях стало известно только после того, как Business Insider раскопал судебные документы: родители подавали прошение дать детям фамилию отца, а материнскую фамилию включить в состав их вторых имен[349]. Независимые директора требовали отставки Зилис, но Альтман защищал ее, настаивая, что она – незаменимый канал связи с непредсказуемым Маском. Однако в марте Маск основал собственную ИИ-компанию xAI. Совет OpenAI признал: конфликт интересов стал неприемлемым, Зилис должна уйти[350].

Третьим покинул совет Уилл Хёрд – бывший конгрессмен-республиканец, публично называвший себя другом Альтмана. В июле он ушел, чтобы выдвинуть свою кандидатуру в президенты. Состав совета сократился с девяти до шести человек: трое независимых директоров плюс Альтман, Брокман и Суцкевер.

Череда отставок серьезно встревожила Альтмана. Особенно его беспокоило, что оставшийся член совета Адам д’Анджело – генеральный директор Quora и бывший топ-менеджер Facebook – за последний год всерьез увлекся вопросами корпоративного управления OpenAI и посвящал им значительную часть времени. Д’Анджело не устраивала сама структура совета: двое подчиненных Альтмана – Брокман и Суцкевер – заседали в органе, призванном контролировать их начальника. Эти опасения приобрели особую остроту для нескольких членов совета после демонстрации им GPT–4 летом 2022 года. Все осознали: их решения стремительно обретают судьбоносный характер.

«Чтобы совет OpenAI работал эффективно и выполнял свои функции, критически важно серьезно относиться к растущим ставкам, – объясняет Тонер. – ChatGPT и GPT–4 стали поворотными моментами: совет осознал, что ставки растут. Не то чтобы завтра наступит конец света, но совет обязан эффективно выполнять свои функции. Мы должны осуществлять реальный, а не формальный контроль над компанией».

Альтмана, однако, тревожило другое: он подозревал Д’Анджело в недобросовестности. В декабре 2022 года Quora запустила ИИ-чатбота Poe, которого Альтман считал прямым конкурентом. Строго говоря, это была не более чем «обертка» – интерфейс, предоставлявший пользователям доступ к различным моделям нейросетей, включая ChatGPT и Claude. В апреле 2023 года Альтман написал коллегам по совету: участие Д’Анджело в проекте Poe создает настоящий конфликт интересов, ему стоит уйти. Разве это не очевидно? Тонер и Макколи так не считали. Совет только что в течение нескольких недель обсуждал критерии конфликта интересов и пришел к выводу: конфликт возникает, только если конкурент обучает собственную передовую модель – то есть работает на переднем крае науки об ИИ. Poe же был всего лишь «оберткой» и явно не дотягивал до этой планки. Тогда Брокман выдвинул другой аргумент: Poe – клиент OpenAI, а значит, Д’Анджело не должен иметь доступа к внутренней информации о бизнесе компании.

Тонер оставалась при своем мнении, и Альтман предложил обсудить вопрос по телефону. Тонер настаивала: компания только что лишилась двух членов совета – может, стоит найти компромисс и сохранить Д’Анджело? Во время разговора Альтман согласился с ее доводами и пообещал связаться с Д’Анджело. Больше она об этом не слышала – и лишь позже выяснилось, что Альтман действительно созвонился с Д’Анджело, но вопрос о конфликте интересов с Poe в этом разговоре не поднимался. Д’Анджело остался в совете. После этого эпизода у Тонер и Макколи сложилось устойчивое впечатление: Альтман с Брокманом готовы менять показания на ходу, подгоняя их под желаемый результат. «Конфликт интересов» для них просто козырная карта, которую они выкладывают на стол, когда им это выгодно. Впрочем, остальные члены совета по-прежнему считали, что ситуация с Poe действительно вызывает обоснованные опасения.

Возможно, Тонер и Макколи были настроены видеть худшее, поскольку уже начали терять доверие к Альтману. Весной 2023 года один из сотрудников OpenAI сообщил совету тревожную новость: компания вот-вот «сойдет с рельсов в вопросах безопасности». В рамках